即時快訊
美光股價曾衝破千美元關卡 市場關注相隔26年是否再度分割 AI貢獻全美近三分之二投資成長 經濟學家示警三大副作用拖累景氣 美國油價飆漲三成需求卻不減 民眾多掏 880 億美元照樣開車 加拿大亞伯達省祭新規 禁大型AI資料中心進駐優質農地 菲律賓成亞太詐騙網絡核心 換臉深偽技術年增逾1.2倍 Akamai聯手微軟防堵行動破口 企業資安延伸至雙平台瀏覽器 日本M&A中心啟動第二創業 收購AI顧問公司加速轉型 企業AI代理暴增引發管理混亂 研究指編排機制成關鍵解方 雲端基礎設施商Pulumi推AI Agent 掌管軟體自動部署與修復 鴻海沙烏地合資車廠獲220億融資 加速在地電動車產線落地
防範AI生成程式碼潛藏漏洞 Alice攜手Lovable強化軟體安全
科技生活

·7 個月前·葉安庭
#科技#人工智慧#軟體安全#資安#Alice
防範AI生成程式碼潛藏漏洞 Alice攜手Lovable強化軟體安全
商傳媒|葉安庭/綜合外電報導
摘要

AI資安公司Alice與AI開發平台Lovable宣布合作,將透過進階紅隊測試,強化Lovable生成程式碼AI系統的安全性,以應對日益增長的漏洞風險,確保AI從開發之初就具備穩固的資安防護。

為因應人工智慧(AI)系統生成程式碼及自主運作所衍生的潛在安全風險,AI資安公司Alice與AI開發平台Lovable於本週宣布建立合作夥伴關係。雙方將透過進階紅隊測試,強化AI系統的韌性與防禦能力。

近年來,AI技術在編寫程式碼、建構應用程式及發布內容方面的發展,為網路安全帶來前所未有的挑戰。這類AI系統具備解釋語言、推斷意圖及生成機率性輸出的能力,但也因此容易被提示注入(prompt injection)或間接操縱攻擊所利用,導致非預期行為。

Alice脫胎於2018年成立、專注於辨識與阻斷有害網路活動的信任與安全公司ActiveFence。隨著AI系統操縱和濫用議題日益突出,ActiveFence擴大了業務範圍並更名為Alice,致力於保障人們用於創造、協作及互動的通訊科技(communicative technologies)安全。目前,Alice的服務已涵蓋全球逾30億用戶,並與十家頂尖AI模型公司中的七家建立合作關係。其服務涵蓋AI系統的完整生命週期,包括部署前的對抗性紅隊測試與部署後的運行時防護措施。

Lovable平台讓用戶能透過與AI的自然語言互動,快速建構全端應用程式和網站。該平台在推出首年即吸引用戶建立超過2500萬個專案。根據此次合作計畫,Alice將對Lovable的AI基礎設施進行結構化對抗測試,模擬模糊指令、間接提示及合法互動中潛藏的惡意意圖等濫用情境。合作目標是深入研究Lovable系統在面對惡意壓力時的行為模式,並利用測試結果強化防護措施、完善產品政策並提升系統韌性。

Alice執行長Noam Schwartz強調,隨著AI功能不斷進步,相關風險也隨之增加。企業不僅應專注於內容審核,更必須從一開始就確保生成與營運網路服務的AI系統具備足夠的韌性。Lovable的信任、安全與政策負責人Alejandra Arreola Ruiz表示,與Alice的合作能讓Lovable主動模擬真實世界的濫用情境,進一步強化用戶保護。此合作也反映出產業趨勢,顯示AI系統正從單純的內容生成,轉向更為主動的網路瀏覽、摘要、推薦及直接發布等角色。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源